About engaging and governing strategies

About Engaging and Governing Strategies: A Thematic Analysis of Dark patterns in Social Networking Services.

Abstract:

Research in HCI has shown a growing interest in unethical design practices across numerous domains, often referred to as “dark patterns”. There is, however, a gap in related literature regarding social networking services (SNSs). In this context, studies emphasize a lack of users’ self-determination regarding control over personal data and time spent on SNSs. We collected over 16 hours of screen recordings from Facebook’s, Instagram’s, TikTok’s, and Twitter’s mobile applications to understand how dark patterns manifest in these SNSs. For this task, we turned towards HCI experts to mitigate possible difficulties of non-expert participants in recognizing dark patterns, as prior studies have noticed. Supported by the recordings, two authors of this paper conducted a thematic analysis based on previously described taxonomies, manually classifying the recorded material while delivering two key findings: We observed which instances occur in SNSs and identified two strategies - engaging and governing - with five dark patterns undiscovered before.

Conclusion:

In recent years, the dark pattern landscape has expanded into various different domains. In this paper, we contribute to this body of research through the application and expansion of a comprehensive taxonomy of dark patterns in the context of SNSs. Supported by thematic analysis, we investigate Facebook, Instagram, TikTok, and Twitter and confirm that the platforms all deployed a variety of dark patterns and design strategies aimed at limiting users’ agency, steering their decision-making. Findings suggest that dark patterns with higher grades of abstraction are easier to be applied in multiple contexts compared to those given narrower definitions. Lastly, our results yield evidence for two high-level strategies - engaging and governing - containing five types of dark patterns previously not described.

Contents

Abstract

  • 기존 연구는 주로 전자상거래 사이트 등에 치중되었고 SNS에 집중한 연구가 부족
  • SNS에서 적용된 다크패턴을 분석하기 위해 전문가들이 페이스북, 인스타그램, 틱톡, 트위터를 사용하는 동안 화면을 녹화(총 16시간). 기존 비전문가 연구의 한계(다크패턴을 알아차리지 못함)를 보완
  • 주제분석(Thematic analysis: 정성 분석을 통해 패턴을 찾아내고 이를 주제별로 분류하는 분석 방법)을 통해 사용자의 의사결정에 개입하는 두 가지 전략(engaging and governing)과 다섯 개의 새로운 다크 패턴을 발견

1. Introduction

  • 기존 연구는 주로 전자상거래 사이트 등에 치중되었고 SNS에 집중한 연구가 부족
  • 효과적 규제를 위해 SNS에 대한 연구가 필요. GDPR, CCPACCPA 등은 데이터와 프라이버시 보호에 집중하고 있음

RQs:

  • RQ1. What types of dark patterns are currently used in the four SNSs Facebook, Instagram, TikTok, and Twitter?
  • RQ2. Do SNSs contain dark patterns currently unique to their domain?

2. Related Work

(역사에 대한 내용 생략)

2.4. Design Strategies on SNSs

3. Expert Review & Data Collection

  • HCI 전문가 여섯 명(독일의 남 3, 여 3, 평균 연령 28.33, SD=1.63)이 가장 널리 쓰이는 SNS 앱 네 개를 쓰게 하고, 10가지 과업을 제시한 후, 화면을 녹화. Think aloud 하라고 시킴.
  • 한 사람이 두 개 앱을 썼으므로 각 앱 별로 3개의 녹화본이 생김(6명 * 2개 영상 / 4개 앱 = 3개 영상/앱)
  • OS에 따른 편향을 제거하기 위해 각 참여자에게 iOS 및 Android 기기를 하나씩 제공. 두 기기를 동시에 쓰며 기기에 따른 차이에 주목해달라고 요청
  • 기기에는 SNS 앱만 설치하였으며, 모든 참가자에게 새 전화번호와 새 이메일 계정을 만들어주었음. 이렇게 하면 Contextual inquiry가 아니게 되어서 의미가 크게 퇴색된다고 생각. SNS 연구인데 네트워크를 모두 끊어버리고 시작. —ak

과업:

  1. Turn on screen recording on each device.
  2. Open the app and create an account to log in and then out.
  3. Close and reopen the app.
  4. Create any kind of content, post it, and delete it.
  5. Follow and unfollow other accounts.
  6. Visit the personal settings.
  7. Visit the ad-related settings.
  8. Use the application for its intended use (minimum of five minutes)
    1. Describe the natural flow of the app - what did you use it for?
    2. Could you use the app as you wanted, or did some features ‘guide’ your interactions?
    3. How easy was it to get distracted, and if so, what distracted you?
  9. Delete your account
  10. Turn off screen recording and save the recording.

절차:

  • 사전에 1시간 온라인 교육을 진행. 다크 패턴에 대해 설명하고 분류법을 알려줌.
  • 교육이 끝나고 교육 자료를 배포.
  • 각 리뷰어에게 임의로 두 개의 SNS를 할당. (각 앱이 서로 다른 전문가에 의해 세 번 독립적으로 평가됨)

4. Findings

4.1. Analysis of the Data

  • 영상과 녹음으로 주제분석을 수행
  • 귀납적 코딩(Inductive coding)과 연역적 코딩(Deductive coding)을 동시에 사용
  • 연역적 코딩북은 기존 다크 패턴 분류에서 파생(What makes a dark pattern dark). 코더 두 명이 독립적으로 코딩.
  • 기존 분류에 맞지 않는 패턴이 발견되면 새 코드를 생성하여 귀납 코드북에 추가
  • 모든 코딩 세션이 끝난 후 두 코더가 논의하여 22개 패턴이 담긴 귀납 코드북을 만들고 이에 따라 분류. (어피니티 다이어그램 기법을 활용)
  • 영상에서 중요한 부분을 반복 재생할 수 있었고, Think Aloud로 부가 정보를 제공받을 수 있었기 때문에 여러 화면에 걸쳐 숨어 있는 패턴을 추가로 찾아낼 수 있었음.

4.2. Deductive Codebook Analysis: Findings

(생략. 기존에 알려진 패턴들을 왕창 찾았다는 내용)

4.3. Inductive Codebook Analysis: Findings

  • “confirm shaming”의 거울상에 해당하는 “persuasive language” 패턴을 찾아냄. 긍정적 언어를 통해 사용자를 특정 퍼낼로 몰고가기.
  • SNS에 특화된 두 개 전략, 다섯가지 패턴을 찾음
    • Engaging strategies: interactive hooks, social brokering
    • Governing strategies: decision uncertainty, labyrinthine navigation, redirective conditions

4.4. Engaging Strategies

되도록 오래 SNS에 머물게 만드는 전략

  • Interactive hooks: 머무는 동안 기분을 좋게 만들기 위한 보상 장치. 예: 본인의 정보를 더 많이 입력하거나 친구 추가를 더 많이 하면 보상을 주는 식의 게임화
  • Social brokering: 사람들 사이에 더 많은 연결 관계를 만들어주기, 새로운 사람을 친추하도록 유도하기. 사용자에게 연락처를 업로드하게 만들면 아직 SNS를 안 쓰는 사람의 정보를 당사자 동의 없이 취득할 수 있음.

4.5. Governing Strategies

사용자가 머무르는 동안 SNS 제공자의 목적에 맞는 행동을 하도록 유도하는 전략

  • Decision uncertainty: 어떤 옵션이 있는지 모호하게 만들고, 어떤 옵션을 선택했는지 모호하게 만들기. 예: TikTok 가입 후 광고 관련 설정을 할 때 배경에서 비디오를 재생하여 주의를 빼앗기, 트위터에서 탈퇴하려고 하면 ‘계정 비활성화’를 먼저 제시하여 탈퇴까지 가는 길목 중간에서 차단하기.
  • Labyrinthine navigation: SNS 설정 메뉴에서 주로 활용됨. 원하는 설정을 찾지 못하고 포기하게 만들기.
  • Redirective conditions: Forced action과 유사한 패턴을 포함. 전혀 상관 없어 보이는 어떤 기능을 ‘수락’한 후에야 원하는 기능이 활성화되도록 하기.

2010년 경에 했던 일 중 하나가 딱 이 기준에 부합. 플레이어가 게임을 더 오래하기 만들기(engaging strategies), 게임을 하는 동안 유료 아이템을 더 많이 쓰게 만들기(governing strategies) —ak

5. Discussions & Implications

  • 네 개 SNS 분석 결과 기존 문헌들에서 분류한 80개 패턴 중 44개가 쓰이고 있었음
  • 22개의 새로운 패턴을 귀납적으로 발견하고 이를 5개의 주제로 분류
  • SNS에 특화된 패턴들을 발견할 수 있었음

6. Limitations & Future Work

  • 네 개의 SNS에만 집중하였음. LinkedIn 등 다른 SNS로 확장하면 좋겠음.
  • SNS를 모바일 앱으로 접근하는 경우로 제한하였음. 다른 모달리티로 확장할 필요가 있음. Facebook이 Meta로 사명을 바꾸며 메타버스에 집중하겠다고 발표한 이면에, SNS의 중독성을 다른 모달리티로 확장하겠다는 비전이 숨어 있었을 것으로 의심 —ak
  • COVID-19 으로 인해 원격 연구를 수행.
  • HCI 전문가들을 분석한 점.
  • 코드북 만들 때 학계에서 쓰이는 분류(What Makes…)로 제한하였음

7. Conclusion

  • 지난 몇 년 동안의 다크 패턴 연구를 SNS 맥락에서 확장하였음
  • 기존 SNS가 다크 패턴을 폭넓게 사용하고 있다는 점을 밝힘
  • SNS에 특화된 다크 패턴들을 새롭게 찾아냄
  • 두 개의 큰 전략적 범주(engaging, governing)를 찾아냄

2024 © ak